Сексуалните deepfakes на Grok AI предизвикват забрани на X, разследвания по целия свят

Социалният медиен колос X, някогашен Twitter, е изправен пред световно наказание и някои репресии против своя AI chatbot Grok за основаване на deepfake полови изображения на деца и дами в платформата, благосъстоятелност на милиардера Илон Мъск.

В понеделник Индонезия и Малайзия станаха първите страни в света, които блокираха Grok AI, базирайки се на опасения за дълбоки подправени полови изображения без единодушие.

„ Правителството преглежда половите дълбоки подправени изображения без единодушие като съществено нарушаване на човешките права, достолепието и сигурността на жителите в цифровото пространство “, сподели в изказване индонезийският министър на връзките и цифровите въпроси Меутя Хафид.

Малайзийската комисия по връзките и мултимедията означи „ многократна корист “ с инструмента за генериране на нецензурни, полово очевидни и манипулирани без единодушие изображения, в това число наличие, включващо дами и малолетни.

Регулаторът сподели, че този месец са били издадени вести до X Corp. и xAI, изискващи по-строги защитни ограничения.

Европейската комисия предприе строги дейности, като подреди на X да резервира всички документи, свързани с неговия чатбот с изкуствен интелект – заповед, която провокира въпроси дали ще последват правни дейности.

„ Ние сме доста добре осведомени с обстоятелството, че X за Grok към този момент предлага лют режим, показващ категорично полово наличие, генерирано с детски изображения, " сподели представителят на Европейската комисия Томас Регние. " Това е непоносимо. Мога да потвърдя, че преглеждаме този въпрос доста съществено. изобразяваща я в бикини стана вирусна в платформата.

" Бях несъзнателно без дрехи от Grok на Илон Мъск на X. И дано бъда доста явен - Като жена, аз вземам решение по кое време, къде и на кого да се покажа в бикини. Имам две деца. Дъщеря ми е на девет. Не желая това в никакъв случай да й се случи ", сподели Буш във видео отговор, който разгласява на X.

Шведският министър-председател Улф Кристерсон разказа изображенията като „ тип сексуализирано принуждение “ и сподели: „ Това е неприятно, недопустимо, обидно. “

В понеделник самостоятелният орган за наблюдаване на онлайн сигурността на Обединеното кралство стартира следствие на X по отношение на „ сексуализирани изображения “, генерирани от Grok.

Получавайте изключителни национални вести

„ Има надълбоко притеснителни отчети за Grok AI chatbot акаунт на X, който се употребява за основаване и шерване на съблечени изображения на хора – което може да съставлява корист с интимни изображения или порнография – и сексуализирани изображения на деца това може да се равнява на материал със полово малтретиране на деца (CSAM) “, се споделя в изказване на Ofcom.

Органът за наблюдаване потърси отговор от xAI по обвиняванията против него и сподели, че компанията е дала отговор преди крайния период в петък.

Ако следствието откри, че X е нарушил закона, може да бъде санкциониран с до 18 милиона паунда или 10 % от квалифицираните му доходи в международен мащаб, което от двете е по-голямо.

Британският министър-председател Кийр Стармър сподели в радио изявление, че X би трябвало " да се съберат и да смъкват този материал. Ще предприемем дейности по това, тъй като просто е отвратително. "

Индия подреди на X да предприеме дейности в границите на 72 часа, с цел да поправи чатбота с изкуствен интелект или да бъде осъден.

Индийското министерство на електрониката и осведомителните технологии издаде публично уведомление на X, обвинявайки го в „ груба корист “ с неговия AI и разрешаване на „ нецензурни изображения или видеоклипове на дами по позорен или пошъл метод за непристойно оклеветяването им. “

Неспазването на условията може да докара до X, изправен пред деяние според законите за киберпространството, наказателното право и отбраната на детето на Индия.

Във Франция прокурорите разшириха настоящото следствие на X, обвързвано с изказванията, че Grok предизвиква изказвания за отказване на Холокоста – закононарушение в Франция — за включване на полово очевидни дълбоки фейкове.

Правителството също означи проблеми с информационния регулатор на страната по отношение на вероятни нарушавания на Закона за цифровите услуги на Европейски Съюз.

„ Интернет не е нито зона на безвластие, нито зона на безотговорност: половите закононарушения, осъществени онлайн, съставляват закононарушения сами по себе си и попадат напълно под действието на закона, тъкмо както тези, осъществени офлайн “, френското държавно управление сподели.

В Бразилия законодател рапортува Grok и X на федералните прокурори, призовавайки държавното управление да деактивира Grok и всички AI функционалности на X мрежата.

Канада прави ли нещо?

Министърът на изкуствения разсъдък на Канада Евън Соломон изрази угриженост по отношение на подправеното полово принуждение, когато беше запитан от Global News за какво федералното държавно управление и министрите към момента употребяват X.

„ Трябва да защитим канадците, изключително дамите и младежите, от употреба. Платформите и разработчиците на AI имат задължението да предотвратят тази щета “, сподели Соломон в изказване в четвъртък, оповестено на X.

Изявлението не загатна особено X, Grok или Elon Musk.

В настрана изказване той сподели, че Канада не обмисля възбрана на X.

„ Противно на известията в медиите, Канада не обмисля възбрана на X “, добави Соломон в неделя.

В канадското държавно управление има „ дейни полемики “ по какъв начин да се отговори на продължаващото генериране на материали за полово принуждение върху X, Global News научих.

Отговорът на Мъск

Компанията за изкуствен интелект на Мъск, xAI, отговори на искане за коментар от Асошиейтед прес с автоматизирания отговор „ Наследените медийни неистини “.

Въпреки това, X не отхвърли, че надълбоко подправеното полово наличие, генерирано посредством Grok съществува.

Въпреки това тя към момента твърди в обява в своя акаунт за сигурност, че подхваща дейности против противозаконното наличие, в това число материали за полово малтретиране на деца, „ като го отстранява, непрекъснато стопира сметки и работи с локалните управляващи и правоприлагащите органи, в случай че е належащо. “

Платформата също повтори коментар от Мъск, който сподели: „ Всеки, който употребява Grok за основаване на нелегално наличие, ще понесе същите последици, както в случай че качи нелегално наличие. “

— с файлове от Асошиейтед прес и Ройтерс